HuggingFace 是一個更正式的模型下載平台，並提供多種模型選擇，也讓開發者可以尋找其他人 fine-tune 過的模型。

Model Hub

首先，進入 Model Hub 的頁面，可以看到下方分別有 models, spaces, datasets 三種類別。

1. models: 可以下載開源模型如 LLama 3.1 8B、 Mistral 7B ，也有許多其他開發者 fine-tune 好的模型可供選擇。
   • 也可以到篩選頁面中查找，如這是繁體中文 embedding model
2. spaces: 展示其他開發者使用模型架設的 Demo App，可以即時體驗不同模型的效果。
3. datasets: 提供用來訓練模型的資料集，這部分會在進行 fine-tune 時深入探討。

Model Card

以 meta-llama/Meta-Llama-3.1-8B-Instruct 為例，進入頁面後，在模型名稱下方可以看到該模型的重點摘要。開發過程中，通常會參考模型的主要功能在模型使用上，依據 license 的不同會有不同的使用限制。以下列出幾種常見的開源授權條款： (Text Generation)、支援語言、以及商用開模模型的 License 規範 (Llama 3.1 Community License Agreement)。

除了 HuggingFace 之外，Llama 3.1 也有在 GitHub 上提供更詳細的模型資訊、模型評比結果、各評比項目的說明、以及最重要的 License 商業授權說明。

License 使用許可

如同開源項目的提供，在模型使用上也會依照 license 有不同的限制，以下整理常見的使用許可：

HuggingFace Repo

HuggingFace 還是一個供開發者存放模型和資料的平台，Llama 3.1 的模型資料就可以在這個 Repo中查看，包含使用資訊、config、model 和 tokenizer。

看完了模型資訊後，就可以進入正式下載流程。

Llama 3.1 8B 模型下載操作

透過 Llama CLI

這裡依照官方的下載流程：

1. 首先到官網上註冊並索取授權
2. 開啟 terminal，輸入 pip install llama-toolchain 下載操作套件
3. 執行 llama model list 查看所有模型資訊
   
   • 可以看到模型的檔案都是存在 HuggingFace 的 repo 當中
4. 執行 llama download --source meta --model-id Meta-Llama3.1-8B-Instruct 下載模型
   • [1 分鐘閱讀] Llama 3.1 模型，帶 Instruct 和不帶 Instruct 有什麼差異
5. 輸入取得的授權 URL，即可成功下載

透過 huggingface-hub

1. 同樣到 HuggingFace 上註冊並索取授權
2. 待得到授權後，先索取待會會使用到的 Access token
   
   • 點擊右上角個人大頭照
   • 點選 setting
   • 左側點擊 Access tokens
   • 點擊 Create new token
   • 可以從 Repositories permissions 中選取剛剛申請授權的 repo
   • 如果不想一直重新申請的話，也在 User permissions 設定允許所有讀寫
3. 開啟 terminal，輸入 git lfs install 確認已經安裝 git
4. 執行 git clone https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct 下載模型
5. 此時會跳出 git credentials 認證，輸入自己的帳號和 token 就可以了

ref.

• Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019, January). Model cards for model reporting. In Proceedings of the conference on fairness, accountability, and transparency (pp. 220-229).
• hugging face－model card